Skip to main content

如何集成 DeepFlow 的数据增强网络故障的解释力

· 9 min read
Kindling-OriginX
Kindling-OriginX
故障根因推理引擎

如何集成 DeepFlow 的数据增强网络故障的解释力

DeepFlow 是基于 eBPF 的可观测性开源项目，旨在为复杂的云基础设施及云原生应用提供深度可观测性。DeepFlow 基于 eBPF 采集了精细的链路追踪数据和网络、应用性能指标，其在网络路径上的全链路覆盖能力和丰富的 TCP 性能指标能够为专业用户和网络领域专家提供充足的排障定界支撑。

Kindling-OriginX 是一款故障根因推导产品，目标是提供给用户一个可解释的故障根因报告，让用户能够直接了解故障根因，并附有根因的推理过程以便验证根因的准确性。网络故障是故障当中比较难以简单解释的，仅仅告知用户哪段网络有问题是不够的，用户需要更多指标以及图解，才能帮助用户更好的理解网络到底发生了什么故障，以及发生在哪个环节。

本文介绍 Kindling-OriginX 通过结合 DeepFlow 完备的网络数据能力，自动化生成可解释的故障根因报告。

soma-chaos模拟网络故障​

如何集成 DeepFlow 的数据增强网络故障的解释力

  • 针对seat-service注入200ms延时的网络模拟故障。
  • 接下来我们先使用 DeepFlow 来识别200ms的网络故障，并做出相应的action。

人工最简化排障过程​

步骤一：利用Trace系统缩小范围​

在微服务场景中，某个接口突然慢了，排障的第一步骤应该是看Tracing系统，找到Trace慢在哪个环节，以及慢的具体表现是什么。

用户通过Tracing系统能够找到具体的Trace，通过分析Trace能够发现seat-service执行时间很长，同时出现了一条非常长的config-service调用，但是config-service执行不慢。这个时候需要联动网络指标，来定位网络问题。

步骤二：利用DeepFlow火焰图确定故障发生在哪段网络​

将故障代表traceid的输入DeepFlow在火焰图中，找到Trace在网络层面上的表现，然后深入分析这个火焰图，如果对火焰图比较了解，同时有具备网络知识的专家经验，是能够根据火焰图人为分析出：这个故障应该是发生在调用者也就是seat-service上，而且问题是发生了syscall到网卡的时间段，也就是容器网络时段出了问题（和故障注入是吻合的）。

如何集成 DeepFlow 的数据增强网络故障的解释力

步骤三：确定容器网络到底什么网络指标异常​

根据故障排查经验，用户需要查看seat-service与config-service的pod的网络指标。这个时候用户需要跳转至DeepFlow的Pod级别的网络指标页面。通过该页面，用户能够查看出建连有200ms的延时突变以及RTT指标有突变。

如何集成 DeepFlow 的数据增强网络故障的解释力 如何集成 DeepFlow 的数据增强网络故障的解释力

步骤四：排除可能的干扰因素​

根据经验，宿主机的CPU被打满和带宽被占满之时，虚拟网络也会出现丢包和时延，所以要排查当时seat-service与config-service所在node的CPU以及node级别的带宽，确保Node级别资源没有饱和。

通过k8s命令确认了两个pod所在的node节点，然后去DeepFlow的node指标监控页面查看相应指标，发现node的bps,pps等指标均在合理范围内。

如何集成 DeepFlow 的数据增强网络故障的解释力 如何集成 DeepFlow 的数据增强网络故障的解释力 如何集成 DeepFlow 的数据增强网络故障的解释力 由于node级别的网络指标没有出现明显异常，最终确定是seat-service的pod级别rtt指标异常。

人工排障总结​

经过一系列的排查过程，最终用户是能够排查出故障的，但是对用户有以下要求：

  • 网络知识非常丰富
  • 深入理解网络火焰图
  • 熟练使用相关工具

Kindling-OriginX 如何结合 DeepFlow 指标，生产可解释的故障报告​

Kindling-OriginX 针对不同的用户需求和使用场景，Kindling-OriginX 对 DeepFlow 的数据进行了加工呈现。

类比人工最简化排障过程，利用 Kindling-OriginX 的排障过程如下：

针对每一条 Tracing 自动化分析​

针对此时的故障，自动化分析每条Trace，并按照故障节点对所列的Trace进行归集。Travel-service是由于级联故障导致的，本文不重点论述级联故障，如果有兴趣可以参考微服务级联故障该如何处理。 如何集成 DeepFlow 的数据增强网络故障的解释力

Review故障节点为seat-service的故障根报告​

故障根因结论：对于子请求10.244.1.254:50332->10.244.5.79:15679 rtt指标出现200ms左右的延时

如何集成 DeepFlow 的数据增强网络故障的解释力

故障的推理验证​

由于Kindling-OriginX 已经识别出是seat-service调用config-service的网络有问题，所以不用完全把 DeepFlow 的火焰图所有数据呈现给用户，只需要与 DeepFlow 对接，仅仅拿到seat-service调用config-service那段网络调用的相关数据即可。

利用 DeepFlow 的seat-service调用config-service数据自动分析出了客户端pod的容器网络出现了201ms的延时

如何集成 DeepFlow 的数据增强网络故障的解释力

Kindling-OriginX 会模拟专家分析经验，进一步关联DeepFlow的重传指标与RTT指标，从而确定到底是什么原因导致了seat-service调用config-service出现了延时的现象。

如何集成 DeepFlow 的数据增强网络故障的解释力

Kindling-OriginX 还会集成node的CPU利用率以及带宽指标，排除干扰因素。

如何集成 DeepFlow 的数据增强网络故障的解释力 Kindling-OriginX 将整个故障推理都在一页报告中完成，并且每个数据来源都是可信可查的。

总结​

Kindling-OriginX 与 DeepFlow 都使用了 eBPF 技术，立求在不同的场景中为不同需求的用户提供灵活高效解决方案，也期待未来能看到国内有更多能力互补产品的出现。

DeepFlow 能提供非常完备的全链路网络基础数据，能够让云原生应用具有深度可观测性，对于排查网络问题非常有用。

Kindling-OriginX 是利用eBPF采集排障北极星指标、AI算法和专家经验构建故障推理引擎，给用户提供可解释的根因报告。